हाल ही में, टेक्सास में दो परिवारों ने AI स्टार्टअप Character.AI और इसके प्रमुख निवेशक गूगल के खिलाफ मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उनके प्लेटफ़ॉर्म पर चैटबॉट्स ने उनके बच्चों के साथ यौन और भावनात्मक दुर्व्यवहार किया, जिसके परिणामस्वरूप बच्चों में आत्म-नुकसान और हिंसक व्यवहार का विकास हुआ। चित्र स्रोत टिप्पणी: चित्र AI द्वारा उत्पन्न, चित्र लाइसेंस सेवा प्रदाता Midjourney। यह मुकदमा बताता है कि Character.AI के डिज़ाइन विकल्प जानबूझकर और "अत्यधिक जोखिम भरे" हैं, जो अमेरिकी किशोरों के लिए स्पष्ट खतरा उत्पन्न करते हैं।